Những kinh nghiệm của Page trong phòng thu cũng như cùng The Yardbirds đã đóng góp rất nhiều vào thành công rực rỡ của Led Zeppelin trong thập niên 1970. Trong vai trò là nhạc sĩ, tay guitar chính và nhà sản xuất, ông đã định hình Led Zeppelin như hình mẫu cho vô số những ban nhạc rock sau này, trở thành một trong những người dẫn lối cho âm thanh của nhạc rock suốt một thời kỳ dài, đặc biệt là ảnh hưởng trực tiếp tới rất nhiều tay guitar nổi tiếng khác[83]. Allmusic từng viết "có vẻ mọi tay guitar kể từ cuối thập niên 60 - đầu thập niên 70 đều bị ảnh hưởng từ những công việc của Page với Led Zeppelin"[5]. Andy Shernoff của nhóm Dictators nhận xét rằng đoạn chạy và riff của Page trong "Communication Breakdown" – một trong những ca khúc gây ấn tượng mạnh với những yếu tố protopunk[84][85] – chính là nguồn cảm hứng cho Johnny Ramone của nhóm Ramones phát triển kỹ thuật downstroke[gc 9][86]. Ramone, người từng gọi Page "có lẽ là tay guitar vĩ đại nhất từ trước tới nay"[87], đã thổ lộ trong bộ phim tài liệu Ramones: The True Story rằng mình đã cải tiến kỹ thuật down-picking bằng cách tập chơi đi chơi lại ca khúc trên rất nhiều lần vào buổi đầu sự nghiệp[88]. Brian May của Queen, vốn cũng rất bị ảnh hưởng từ Page[89], từng nói: "Tôi nghĩ không có ai có thể cô đọng được cách viết đoạn riff như Page – anh ấy là một trong những bộ não vĩ đại nhất của nhạc rock."[90] Tom Scholz của nhóm Boston cũng bị ảnh hưởng lớn từ Page, cho rằng phần chơi guitar của Led Zeppelin trong "How Many More Times" sau này chính là những âm thanh đặc trưng của Boston[91]. Đoạn chơi solo của Page trong ca khúc "Heartbreaker" được Eddie Van Halen gọi là niềm cảm hứng cho kỹ thuật bấm dây 2 tay của mình sau khi được xem buổi trình diễn của Led Zeppelin vào năm 1971[92]. Tương tự, Steve Vai trong buổi phỏng vấn với tờ Guitar World vào tháng 9 năm 1998 đã nhắc tới ca khúc này: "Ca khúc ["Heartbreaker"] chính là thứ bùng nổ nhất mà tôi từng biết khi còn trẻ. Nó mang đầy tính thách thức, táo bạo và sắc sảo hơn bất cứ điều gì. Đó mới là một đoạn guitar solo đích thực."[93]

Vô số những tay guitar nổi tiếng sau này bị ảnh hưởng từ ông, trong đó bao gồm Ace Frehley[94], Joe Satriani[95], John Frusciante[96], James Hetfield[97], Kirk Hammett[98], Zakk Wylde[99], Yngwie Malmsteen[100], Joe Perry[101], Richie Sambora[102], Angus Young[103], Slash[104], Dave Mustaine[105], Mike McCready[106], Jerry Cantrell[107], Stone Gossard[108], Mick Mars[109], Paul Stanley[110], Alex Lifeson[111] và Dan Hawkins[112] đều từng ấn tượng bởi cách chơi của Page.

Page được tạp chí Uncut viết là "tay guitar vĩ đại nhất và bí ẩn nhất của nhạc rock"[113]. Theo NBCNews.com, Jimmy Page "đã chơi thứ guitar cơ bản và đáng nhớ nhất của lịch sử nhạc rock – từ những đoạn rền mạnh mẽ nhất cho tới những nốt tinh tế gảy bằng fingerpick"[114]. Ca khúc huyền thoại "Stairway to Heaven" được độc giả 2 tạp chí nổi tiếng Guitar World[115] và Total Guitar bình chọn là đoạn solo vĩ đại nhất mọi thời đại, còn bản thân ông cũng được vinh danh là "Nghệ sĩ guitar của năm" trong 5 năm của thập niên 1970 bởi tạp chí Creem. Tờ Guitar World viết "Vốn là một vị thánh, Jimmy Page rõ ràng là một trong những nghệ sĩ guitar solo mê đắm nhất mà lịch sử nhạc rock từng biết đến"[116]. Năm 1996, tạp chí Mojo xếp ông ở vị trí số 7 trong danh sách "100 tay guitar vĩ đại nhất"[117]. Năm 2002, ông có được vị trí thứ 2 trong danh sách tương tự được bình chọn bởi độc giả tờ Total Guitar[118]. Năm 2007, tạp chí Classic Rock xếp ông ở vị trí số 4 trong danh sách "100 tay guitar hoang dã nhất"[119]. Trang Gigwise.com bình chọn ông ở vị trí số 2 trong danh sách "50 tay guitar xuất sắc nhất" vào năm 2008[120]. Tháng 8 năm 2009, tạp chí Time xếp ông ở vị trí số 6 trong danh sách những nghệ sĩ guitar điện vĩ đại nhất[121]. Năm 2010, Page có được vị trí số 2 trong danh sách "50 tay guitar của mọi thời đại" của hãng Gibson[122]. Năm 2004, nhà báo trẻ David Fricke của tờ Rolling Stone xếp ông ở vị trí số 9 trong danh sách "100 tay guitar vĩ đại nhất" với lời bình "đỉnh cao của kỹ thuật riff"[123][124]; bản danh sách cập nhật năm 2011 đưa ông lên vị trí số 3, chỉ đứng sau Jimi Hendrix và người bạn thân, Eric Clapton[125].

Fricke cũng từng viết về Page vào năm 1998 "có lẽ là phiên bản kỹ thuật số của James Brown trong thời đại nhạc pop ngày nay"[123]. Roger Daltrey của The Who là người hâm mộ lâu năm của Page[126] và từng đề nghị thành lập một siêu ban nhạc với ông vào năm 2010: "Tôi muốn làm một điều gì đó, tôi muốn được thực hiện một album cùng Page."[127] Keith Richards của The Rolling Stones miêu tả về ông "là một trong những tay guitar kiệt xuất nhất tôi từng biết"[128]. Page có tên trên Đại sảnh Danh vọng Anh vào tháng 8 năm 2004[129]. Ông cũng được trao giải thưởng Huyền thoại sống của tờ Classic Rock vào năm 2007[130]. Tháng 6 năm 2008, ông được trao bằng Tiến sĩ danh dự tại trường Đại học Surrey vì những đóng góp cho nền công nghiệp âm nhạc[131][132]. Page được xướng tên tại Đại sảnh Danh vọng của tạp chí Mojo trong buổi lễ trao giải ngày 11 tháng 6 năm 2010[133]. Ngày 10 tháng 5 năm 2014, ông được trao bằng Tiến sĩ danh dự tại trường Nhạc viện Berklee vì những cống hiến cho nền âm nhạc nói chung[134].

Tháng 8 năm 2011, nghiên cứu sinh Justin Havird ở Đại học Auburn đã đặt tên cho loài cá Lepidocephalichthys zeppelini khi anh cho rằng loài cá này có ngoại hình giống chiếc guitar 2-cần của Jimmy Page[135][136].